Хакер открадна тайни на OpenAI, пораждайки опасения, че Китай също би могъл
В началото на предходната година хакер получи достъп до вътрешните системи за известия на OpenAI, основателя на ChatGPT, и открадна детайлности за дизайна на A.I. технологии.
Хакерът е вдигнал детайлности от полемики в онлайн конгрес, където чиновниците са говорили за най-новите технологии на OpenAI, съгласно двама души, осведомени с случая, само че не са навлезли в системи, където компанията разполага и построява своя изкуствен интелект.
Ръководителите на OpenAI разкриха случая на чиновниците по време на среща на всички в офисите на компанията в Сан Франциско през април 2023 година и осведомиха неговия ръб на шефовете, съгласно двамата души, които са обсъждали сензитивна информация за компанията при изискване за анонимност.
Но ръководителите взеха решение да не споделят новината обществено, т.к. не е открадната информация за клиенти или сътрудници, споделиха двамата. Ръководителите не считат случая за опасност за националната сигурност, защото имат вяра, че хакерът е частно лице без известни връзки с непознато държавно управление. Компанията не е уведомила F.B.I. или някой различен в правоприлагащите органи.
свидетелства на Капитолийския рид за това по какъв начин китайските хакери са употребявали системите на софтуерния колос, с цел да стартират широкообхватна офанзива против мрежите на федералното държавно управление.Въпреки това, според федералния и калифорнийския закон, OpenAI не може да попречи на хората да работят в компанията заради тяхната народност, а откривателите на политиката споделиха, че възбраната на задгранични гении от планове в Съединени американски щати може доста да попречи на напредъка на ИИ. в Съединените щати.
„ Имаме потребност от най-хубавите и най-умните мозъци, работещи върху тази технология “, сподели Мат Найт, началник на сигурността на OpenAI, пред The New York Times в изявление. „ Това идва с някои опасности и ние би трябвало да ги разберем. “
(The Times съди OpenAI и неговия сътрудник, Microsoft, като твърди, че нарушава авторските права на новинарско наличие към AI системи.)
OpenAI не е единствената компания, която построява все по-мощни системи, употребявайки бързо подобряващ се AI. технология. Някои от тях - най-много Meta, притежателят на Фейсбук и Instagram - свободно споделят своите планове с останалия свят като програмен продукт с отворен код. Те имат вяра, че заплахите, подбудени от днешния ИИ. технологиите са тънки и този код за шерване разрешава на инженери и откриватели в цялата промишленост да разпознават и поправят проблеми.
текст, неподвижни изображения и, от ден на ден, видеоклипове. Те също по този начин стартират да лишават някои работни места.Компании като OpenAI и неговите съперници Anthropic и Гугъл прибавят парапети към своя ИИ. приложения, преди да ги предложи на физически лица и компании, надявайки се да попречи на хората да употребяват приложенията за разпространение на дезинформация или причиняване на други проблеми.
основаване на нови биологични оръжия или помощ за навлизане в държавни компютърни системи. Някои даже считат, че може да унищожи човечеството.Редица компании, в това число OpenAI и Anthropic, към този момент блокират своите механически интервенции. OpenAI неотдавна сътвори Комитет за сигурност и сигурност, с цел да изследва по какъв начин би трябвало да се оправи с рисковете, подбудени от бъдещите технологии. Комитетът включва Пол Накасоне, някогашен военачалник от армията, управлявал Агенцията за национална сигурност и Кибер командването. Той също беше назначен в борда на шефовете на OpenAI.
„ Започнахме да влагаме в сигурността години преди ChatGPT “, сподели господин Найт. „ Ние сме на път освен да разберем рисковете и да ги изпреварим, само че и да задълбочим нашата резистентност. “
Федерални чиновници и щатски законодатели също упорстват към държавни разпореждания, които биха забранили на фирмите да пускат избрани A.I. технологии и да ги глобява с милиони, в случай че техните технологии са предизвикали щета. Но специалистите споделят, че тези рискове са към момента надалеч от години или даже десетилетия.
съвсем половината от най-хубавите в света ИИ. откриватели.„ Не е полуда да мислим, че Китай скоро ще изпревари Съединени американски щати “, сподели Клеман Деланг, основен изпълнителен шеф на Hugging Face, компания, която е хазаин на доста на света с отворен код A.I. планове.
Някои откриватели и ръководители на националната сигурност настояват, че математическите логаритми в основата на настоящия ИИ. системите, въпреки и да не са рискови през днешния ден, могат да станат рискови и приканват за по-строг надзор върху ИИ. лаборатории.
„ Дори в случай че най-лошите сюжети са относително дребна възможност, в случай че те имат огромно влияние, тогава е наша отговорност да ги приемем съществено “, Сюзън Райс, някогашен консултант по вътрешната политика на президента Байдън и някогашен консултант по националната сигурност на президента Барак Обама, сподели по време на събитие в Силиконовата котловина предишния месец. „ Не мисля, че това е научна фантастика, както мнозина обичат да настояват. “
